DeMix: Debugging Training Data with Mixed Data Error Types by Investigating Influence Vectors
DeMix：基于影响向量的混合数据错误类型调试框架
🧭 基于影响向量的训练数据调试 ★ 深度解读
Shanghai Jiao Tong University · ByteDance Inc. · Tiktok
利用完整的影响向量代替标量分数，通过多标签分类同步检测训练数据中的标签错误、特征错误和虚假相关三类问题。
📌 工作参考价值（4 点）
- 影响向量替代标量影响分数：在推荐或电商数据中直接对标量影响力（如留一法影响值）聚合会掩盖错误类型特异性。保留完整验证样本上的影响分布，再用 Set Transformer 编码，能更好捕获标签噪声、特征异常和虚假相关等细粒度错误模式。
- 无需完全干净的验证集：DeMix 通过干预不同的验证子集和模型架构，强制学到对验证集噪声、模型选择鲁棒的错误表征，适合推荐系统等验证集本身可能受系统性偏差污染的场景。
- 部署时采用验证集采样与模型集成：大规模推荐数据上计算完整影响向量开销大，可参照文中仅用 10% 验证子集和轻量模型集成（如 2~3 个不同架构），在保持调试 F1 几乎不降的情况下将运行时和显存大幅降低。
- 错误类型驱动的定向修复：识别出的标签错误、特征错误、虚假相关可分别应用重标注、Z-score 特征补全、少数群体重加权等修复策略，直接作用于召回/排序数据，提升后续模型 AUC。